Test-Time Optimization of Query Embeddings with Ranking Aware Reward Maximization
基于排序奖励最大化的查询向量测试时优化
🧭 测试时查询向量优化 · 排序奖励蒸馏 ★ 深度解读
The University of Texas at Austin · Google DeepMind
把 reranker/LLM 排序分数蒸馏成可复用查询向量残差，冻结权重与索引，MTEB 最高 +8.36 nDCG@10
📌 工作参考价值（4 点）
- 在闭源 embedding API 或已有 ANN 索引不能改时，可只学一个查询侧残差向量 v_g：部署时用 unit(x_q + α v_g) 重新检索，索引、doc embedding、相似度函数都不动，适合线上低成本接入 reranker 蒸馏增益。
- scope 选择可作为固定 reward 预算下的复用策略：预算极少先 global 共享；预算中等按业务类目/任务建 task-wise；预算充足再 query-wise。对应从冷启动全局复用 → 类目/场景共享 → 个性化 query 专用。
- 免调参的置信度缩放 α_g = n_g/(n_g+1) 值得直接迁移：共享状态按覆盖 query 数自动控制应用强度，小样本不过冲，省掉按预算手动调 magnitude。
- reward 预算分配上，小预算优先 depth，大预算优先 breadth：即在线先给少量 query 多评几个候选，预算变大后扩 query 覆盖比继续加深候选更划算。